产品文档

智算服务

2025-02-07 11:34:06

使用ChatGLM3搭建自己的聊天机器人

本例子展示如何使用平台的自定义应用功能,实现一个基于ChatGLM3的聊天机器人应用程序。

1. 打开gcs控制台,在“实例列表”页面点击“创建”按钮。

image.png

2. 在创建页面,第一行的计费模式根据自己的需要进行选择,可以选择包年包月,也可以选择按配置(即每个小时进行扣费)。应用可以选择“无预装应用”,如果你还想顺便玩玩文生图,也可以选择Stable Diffusion。点击“立即购买”创建实例。

image.png

3. 创建完成后,在实例列表页面,就能看到刚刚创建的实例。待实例状态变成“运行中”时,点击JupyterLab~~~~。

image.png

4. 在Jupyter页面,从右侧的目录树中,进入到/data/apps/目录,新建一个chatglm3目录。点击右侧的Terminal,进入命令行页面。

image.png

在命令行页面中,可以使用pwd命令,查看当前所在的目录。

image.png

5. 为了确保没有环境问题,我们使用conda创建一个单独的环境,不妨叫做liandan。在命令行页面中,输入如下命令:conda create -n liandan python=3.10.8 -y

image.png

等运行完成后,再执行命令conda activate liandan,以激活liandan这个虚拟环境,激活后,命令行前面会出现(liandan)。

image.png

  1. 继续输入命令git clone https://github.com/THUDM/ChatGLM3,用来下载chatglm3的代码。注意这里无需下载模型,模型已经实现在平台提供的公共模型为大家准备好了。如果无法从github下载,可以采用从镜像网站下载,命令如下:git clone https://gitee.com/jdgcs/ChatGLM3.git

image.png

7. 进入ChatGLM3目录,安装依赖。

cd ChatGLM3
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

image.png

  1. 在左侧的目录树中,双击打开文件ChatGLM3/basic_demo/web_demo_streamlit.py,修改18行,MODEL_PATH的内容为'/gcs-pub/chatglm3-6b',如下图所示。最后Ctrl+S保存该修改。

image.png

  1. 继续在命令行中输入命令:streamlit run basic_demo/web_demo_streamlit.py --server.address 0.0.0.0 --server.port 28888

  2. 恭喜你,我们的ChatGLM3 Web UI已经成功运行了。回到控制台页面,点击操纵栏-应用-自定义应用,就能看到刚才部署的ChatGLM3页面啦。

image.png~~~~

image.png

文档反馈

开始与售前顾问沟通

可直接拨打电话 400-098-8505转1

我们的产品专家为您找到最合适的产品/解决⽅案

在线咨询 5*8⼩时

1v1线上咨询获取售前专业咨询

点击咨询
企微服务助手

专业产品顾问,随时随地沟通